KCC 2021
Current Result Document :
| 한글제목(Korean Title) |
사전학습 언어모델을 이용한 한국어 단일 문서 요약에 대한 연구 |
| 영문제목(English Title) |
The Study on Korean Single Document Summarization Using Pre-trained Language Models |
| 저자(Author) |
권성구
임연수
박성배
Sunggoo Kwon
Yeon-Soo Lim
Seong-Bae Park
|
| 원문수록처(Citation) |
VOL 48 NO. 01 PP. 0379 ~ 0381 (2021. 06) |
한글내용
(Korean Abstract) |
사전학습 언어모델의 발전으로 인해 다양한 자연어처리 주제에서 뛰어난 발전을 가져오고 있다. 특히 인코더-디코더 형태의 사전학습 언어모델의 경우 긴 문서에서 중요한 내용을 간단하게 요약하는 요약모델에서 뛰어난 성능을 보인다. 본 논문에서는 이러한 사전학습 언어모델들을 동일한 미세조정 데이터를 구축하여 학습하고, 요약 모델별 정량적 성능 평가를 내린다. 또한 정성적으로 요약 결과를 확인하여 각 요약 모델별 결과에 대한 특징과 단점 등을 분석하는 연구를 진행한다. MASS, MASS+PPLM, mBART, KoBART 4개의 언어모델과 베이스라인으로 단순 Trasnformer 모델을 학습하여 테스트를 진행한 결과 KoBART 언어모델을 기반으로 한 요약 모델에서 Rouge-1 35.06, Rouge-2 20.07, Rouge-L 33.77로 가장 높은 성능을 보이며, 요약 결과를 정성적으로 확인한 결과 원문에서 다량의 단어 토큰들을 n-gram 추출하여 하나의 문장으로 생성하는 경향을 보여 원문의 문맥을 잘 반영할 수 있는 특징을 확인했다. |
영문내용
(English Abstract) |
|
| 키워드(Keyword) |
|
| 파일첨부 |
PDF 다운로드
|
